home *** CD-ROM | disk | FTP | other *** search
/ CU Amiga Super CD-ROM 16 / CU Amiga Magazine's Super CD-ROM 16 (1997-10-16)(EMAP Images)(GB)[!][issue 1997-11].iso / CUCD / Graphics / Ghostscript / source / zfdctc.c < prev    next >
C/C++ Source or Header  |  1996-01-15  |  10KB  |  365 lines
  1. /* Copyright (C) 1994 Aladdin Enterprises.  All rights reserved.
  2.   
  3.   This file is part of Aladdin Ghostscript.
  4.   
  5.   Aladdin Ghostscript is distributed with NO WARRANTY OF ANY KIND.  No author
  6.   or distributor accepts any responsibility for the consequences of using it,
  7.   or for whether it serves any particular purpose or works at all, unless he
  8.   or she says so in writing.  Refer to the Aladdin Ghostscript Free Public
  9.   License (the "License") for full details.
  10.   
  11.   Every copy of Aladdin Ghostscript must include a copy of the License,
  12.   normally in a plain ASCII text file named PUBLIC.  The License grants you
  13.   the right to copy, modify and redistribute Aladdin Ghostscript, but only
  14.   under certain conditions described in the License.  Among other things, the
  15.   License requires that the copyright notice and this notice be preserved on
  16.   all copies.
  17. */
  18.  
  19. /* zfdctc.c */
  20. /* Common code for DCT filter creation */
  21. #include "memory_.h"
  22. #include "stdio_.h"            /* for jpeglib.h */
  23. #include "jpeglib.h"
  24. #include "ghost.h"
  25. #include "errors.h"
  26. #include "opcheck.h"
  27. #include "idict.h"
  28. #include "idparam.h"
  29. #include "imemory.h"            /* for iutil.h */
  30. #include "ipacked.h"
  31. #include "iutil.h"
  32. #include "strimpl.h"
  33. #include "sdct.h"
  34. #include "sjpeg.h"
  35.  
  36. /* Forward references */
  37. private int quant_params(P4(const ref *, int, UINT16 *, floatp));
  38. int zfdct_byte_params(P4(const ref *, int, int, UINT8 *));
  39.  
  40. /* Common setup for encoding and decoding filters. */
  41. int
  42. zfdct_setup_quantization_tables(const ref *op, stream_DCT_state *pdct,
  43.                 bool is_encode)
  44. {    int code;
  45.     int i, j;
  46.     ref *pdval;
  47.     const ref *pa;
  48.     const ref *QuantArrays[NUM_QUANT_TBLS]; /* for detecting duplicates */
  49.     int num_in_tables;
  50.     int num_out_tables;
  51.     jpeg_component_info * comp_info;
  52.     JQUANT_TBL ** table_ptrs;
  53.     JQUANT_TBL * this_table;
  54.  
  55.     if ( op == 0 || dict_find_string(op, "QuantTables", &pdval) <= 0 )
  56.         return 0;
  57.     if ( !r_has_type(pdval, t_array) )
  58.         return_error(e_typecheck);
  59.     if ( is_encode )
  60.     {    num_in_tables = pdct->data.compress->cinfo.num_components;
  61.         if ( r_size(pdval) < num_in_tables )
  62.             return_error(e_rangecheck);
  63.         comp_info = pdct->data.compress->cinfo.comp_info;
  64.         table_ptrs = pdct->data.compress->cinfo.quant_tbl_ptrs;
  65.     }
  66.     else
  67.     {    num_in_tables = r_size(pdval);
  68.         comp_info = NULL; /* do not set for decompress case */
  69.         table_ptrs = pdct->data.decompress->dinfo.quant_tbl_ptrs;
  70.     }
  71.     num_out_tables = 0;
  72.     for ( i = 0, pa = pdval->value.const_refs;
  73.           i < num_in_tables; i++, pa++
  74.         )
  75.     {    for ( j = 0; j < num_out_tables; j++ )
  76.         {    if ( obj_eq(pa, QuantArrays[j]) )
  77.                 break;
  78.         }
  79.         if ( comp_info != NULL )
  80.             comp_info[i].quant_tbl_no = j;
  81.         if ( j < num_out_tables )
  82.             continue;
  83.         if ( ++num_out_tables > NUM_QUANT_TBLS )
  84.             return_error(e_rangecheck);
  85.         QuantArrays[j] = pa;
  86.         this_table = table_ptrs[j];
  87.         if ( this_table == NULL )
  88.         {    this_table = gs_jpeg_alloc_quant_table(pdct);
  89.             if ( this_table == NULL )
  90.                 return_error(e_VMerror);
  91.             table_ptrs[j] = this_table;
  92.         }
  93.         if ( r_size(pa) != DCTSIZE2 )
  94.             return_error(e_rangecheck);
  95.         code = quant_params(pa, DCTSIZE2,
  96.                     this_table->quantval, pdct->QFactor);
  97.         if ( code < 0 )
  98.             return code;
  99.     }
  100.     return 0;
  101. }
  102.  
  103. int
  104. zfdct_setup_huffman_tables(const ref *op, stream_DCT_state *pdct,
  105.                bool is_encode)
  106. {    int code;
  107.     int i, j;
  108.     ref *pdval;
  109.     const ref *pa;
  110.     const ref *DCArrays[NUM_HUFF_TBLS]; /* for detecting duplicates */
  111.     const ref *ACArrays[NUM_HUFF_TBLS];
  112.     int num_in_tables;
  113.     int ndc, nac;
  114.     int codes_size;
  115.     jpeg_component_info * comp_info;
  116.     JHUFF_TBL ** dc_table_ptrs;
  117.     JHUFF_TBL ** ac_table_ptrs;
  118.     JHUFF_TBL ** this_table_ptr;
  119.     JHUFF_TBL * this_table;
  120.     int max_tables = 2;        /* baseline limit */
  121.  
  122.     if ( op == 0 )            /* no dictionary */
  123.         return 0;
  124.     if ( (code = dict_find_string(op, "HuffTables", &pdval)) <= 0)
  125.         return 0;
  126.     if ( !r_has_type(pdval, t_array) )
  127.         return_error(e_typecheck);
  128.     if ( is_encode )
  129.     {    num_in_tables = pdct->data.compress->cinfo.input_components * 2;
  130.         if ( r_size(pdval) < num_in_tables )
  131.             return_error(e_rangecheck);
  132.         comp_info = pdct->data.compress->cinfo.comp_info;
  133.         dc_table_ptrs = pdct->data.compress->cinfo.dc_huff_tbl_ptrs;
  134.         ac_table_ptrs = pdct->data.compress->cinfo.ac_huff_tbl_ptrs;
  135.         if ( pdct->data.common->Relax )
  136.             max_tables = max(pdct->data.compress->cinfo.input_components, 2);
  137.     }
  138.     else
  139.     {    num_in_tables = r_size(pdval);
  140.         comp_info = NULL; /* do not set for decompress case */
  141.         dc_table_ptrs = pdct->data.decompress->dinfo.dc_huff_tbl_ptrs;
  142.         ac_table_ptrs = pdct->data.decompress->dinfo.ac_huff_tbl_ptrs;
  143.         if ( pdct->data.common->Relax )
  144.             max_tables = NUM_HUFF_TBLS;
  145.     }
  146.     ndc = nac = 0;
  147.     for ( i = 0, pa = pdval->value.const_refs;
  148.           i < num_in_tables; i++, pa++
  149.         )
  150.     {    if ( i & 1 )
  151.         {    for ( j = 0; j < nac; j++ )
  152.             {    if ( obj_eq(pa, ACArrays[j]) )
  153.                     break;
  154.             }
  155.             if ( comp_info != NULL )
  156.                 comp_info[i>>1].ac_tbl_no = j;
  157.             if ( j < nac )
  158.                 continue;
  159.             if ( ++nac > NUM_HUFF_TBLS )
  160.                 return_error(e_rangecheck);
  161.             ACArrays[j] = pa;
  162.             this_table_ptr = ac_table_ptrs + j;
  163.         }
  164.         else
  165.         {    for ( j = 0; j < ndc; j++ )
  166.             {    if ( obj_eq(pa, DCArrays[j]) )
  167.                     break;
  168.             }
  169.             if ( comp_info != NULL )
  170.                 comp_info[i>>1].dc_tbl_no = j;
  171.             if ( j < ndc )
  172.                 continue;
  173.             if ( ++ndc > NUM_HUFF_TBLS )
  174.                 return_error(e_rangecheck);
  175.             DCArrays[j] = pa;
  176.             this_table_ptr = dc_table_ptrs + j;
  177.         }
  178.         this_table = *this_table_ptr;
  179.         if ( this_table == NULL )
  180.         {    this_table = gs_jpeg_alloc_huff_table(pdct);
  181.             if ( this_table == NULL )
  182.                 return_error(e_VMerror);
  183.             *this_table_ptr = this_table;
  184.         }
  185.         if ( r_size(pa) < 16 )
  186.             return_error(e_rangecheck);
  187.         code = zfdct_byte_params(pa, 0, 16, this_table->bits + 1);
  188.         if ( code < 0 )
  189.             return code;
  190.         for ( codes_size = 0, j = 1; j <= 16; j++ )
  191.             codes_size += this_table->bits[j];
  192.         if ( codes_size > 256 || r_size(pa) != codes_size+16 )
  193.             return_error(e_rangecheck);
  194.         code = zfdct_byte_params(pa, 16, codes_size, this_table->huffval);
  195.         if ( code < 0 )
  196.             return code;
  197.     }
  198.     if ( nac > max_tables || ndc > max_tables )
  199.         return_error(e_rangecheck);
  200.     return 0;
  201. }
  202.  
  203. /* The main procedure */
  204. int
  205. zfdct_setup(const ref *op, stream_DCT_state *pdct)
  206. {    const ref *dop;
  207.     int npop;
  208.     int code;
  209.  
  210.     /* Initialize the state in case we bail out. */
  211.     pdct->Markers.data = 0;
  212.     pdct->Markers.size = 0;
  213.     if ( !r_has_type(op, t_dictionary) )
  214.     {    npop = 0;
  215.         dop = 0;
  216.     }
  217.     else
  218.     {    check_dict_read(*op);
  219.         npop = 1;
  220.         dop = op;
  221.     }
  222.     /* These parameters are common to both, and are all defaultable. */
  223.     if ( (code = dict_int_param(dop, "Picky", 0, 1, 0,
  224.                     &pdct->data.common->Picky)) < 0 ||
  225.          (code = dict_int_param(dop, "Relax", 0, 1, 0,
  226.                     &pdct->data.common->Relax)) < 0 ||
  227.          (code = dict_int_param(dop, "ColorTransform", -1, 2, -1,
  228.                     &pdct->ColorTransform)) < 0 ||
  229.          (code = dict_float_param(dop, "QFactor", 1.0,
  230.                       &pdct->QFactor)) < 0
  231.        )
  232.         return code;
  233.     if ( pdct->QFactor < 0.0 || pdct->QFactor > 1000000.0 )
  234.         return_error(e_rangecheck);
  235.     return npop;
  236. }
  237.  
  238. /* ------ Internal routines ------ */
  239.  
  240. /* Get N quantization values from an array or a string. */
  241.  
  242. private int
  243. quant_params(const ref *op, int count, UINT16 *pvals, floatp QFactor)
  244. {    int i;
  245.     const ref_packed *pref;
  246.     double val;
  247.     /* Adobe specifies the values to be supplied in zigzag order.
  248.      * For IJG versions newer than v6, we need to convert this order
  249.      * to natural array order.  Older IJG versions want zigzag order.
  250.      */
  251. #if JPEG_LIB_VERSION >= 61
  252.     /* natural array position of n'th element of JPEG zigzag order */
  253.     static const int natural_order[DCTSIZE2] = {
  254.        0,  1,  8, 16,  9,  2,  3, 10,
  255.       17, 24, 32, 25, 18, 11,  4,  5,
  256.       12, 19, 26, 33, 40, 48, 41, 34,
  257.       27, 20, 13,  6,  7, 14, 21, 28,
  258.       35, 42, 49, 56, 57, 50, 43, 36,
  259.       29, 22, 15, 23, 30, 37, 44, 51,
  260.       58, 59, 52, 45, 38, 31, 39, 46,
  261.       53, 60, 61, 54, 47, 55, 62, 63
  262.     };
  263. #define jpeg_order(x)  natural_order[x]
  264. #else
  265. #define jpeg_order(x)  (x)
  266. #endif
  267.     switch ( r_type(op) )
  268.     {
  269.     case t_string:
  270.         check_read(*op);
  271.         for ( i = 0; i < count; i++ )
  272.         {
  273.             val = op->value.const_bytes[i] * QFactor;
  274.             if ( val < 1 ) val = 1;
  275.             if ( val > 255 ) val = 255;
  276.             pvals[jpeg_order(i)] = (UINT16) (val + 0.5);
  277.         }
  278.         return 0;
  279.     case t_array:
  280.         check_read(*op);
  281.         pref = (const ref_packed *)op->value.const_refs;
  282.         break;
  283.     case t_shortarray:
  284.     case t_mixedarray:
  285.         check_read(*op);
  286.         pref = op->value.packed;
  287.         break;
  288.     default:
  289.         return_error(e_typecheck);
  290.     }
  291.     for ( i = 0; i < count; pref = packed_next(pref), i++ )
  292.     {    ref nref;
  293.         packed_get(pref, &nref);
  294.         switch ( r_type(&nref) )
  295.         {
  296.         case t_integer:
  297.             val = nref.value.intval * QFactor;
  298.             break;
  299.         case t_real:
  300.             val = nref.value.realval * QFactor;
  301.             break;
  302.         default:
  303.             return_error(e_typecheck);
  304.         }
  305.         if ( val < 1 ) val = 1;
  306.         if ( val > 255 ) val = 255;
  307.         pvals[jpeg_order(i)] = (UINT16) (val + 0.5);
  308.     }
  309.     return 0;
  310. #undef jpeg_order
  311. }
  312.  
  313. /* Get N byte-size values from an array or a string.
  314.  * Used for HuffTables, HSamples, VSamples.
  315.  */
  316. int
  317. zfdct_byte_params(const ref *op, int start, int count, UINT8 *pvals)
  318. {    int i;
  319.     const ref_packed *pref;
  320.     UINT8 *pval;
  321.     switch ( r_type(op) )
  322.     {
  323.     case t_string:
  324.         check_read(*op);
  325.         for ( i = 0, pval = pvals; i < count; i++, pval++ )
  326.             *pval = (UINT8)op->value.const_bytes[start+i];
  327.         return 0;
  328.     case t_array:
  329.         check_read(*op);
  330.         pref = (const ref_packed *)(op->value.const_refs + start);
  331.         break;
  332.     case t_shortarray:
  333.     case t_mixedarray:
  334.         check_read(*op);
  335.         pref = op->value.packed;
  336.         for ( i = 0; i < start; i++ )
  337.           pref = packed_next(pref);
  338.         break;
  339.     default:
  340.         return_error(e_typecheck);
  341.     }
  342.     for ( i = 0, pval = pvals; i < count;
  343.           pref = packed_next(pref), i++, pval++
  344.         )
  345.     {    ref nref;
  346.         packed_get(pref, &nref);
  347.         switch ( r_type(&nref) )
  348.         {
  349.         case t_integer:
  350.             if ( nref.value.intval < 0 || nref.value.intval > 255 )
  351.                 return_error(e_rangecheck);
  352.             *pval = (UINT8)nref.value.intval;
  353.             break;
  354.         case t_real:
  355.             if ( nref.value.realval < 0 || nref.value.realval > 255 )
  356.                 return_error(e_rangecheck);
  357.             *pval = (UINT8)(nref.value.realval + 0.5);
  358.             break;
  359.         default:
  360.             return_error(e_typecheck);
  361.         }
  362.     }
  363.     return 0;
  364. }
  365.